นายสมศักดิ์ เทพสุทิน เป็นสมาชิกสภาผู้แทนราษฎรจังหวัดสุโขทัย ตั้งแต่ปี 2526 ได้รับตำแหน่งรัฐมนตรีครั้งแรกในรัฐบาลของพลเอกสุจินดา คราประยูร ในตำแหน่งรัฐมนตรีว่าการกระทรวงสาธารณสุข[4] ในรัฐบาลชุดต่อมาของนายชวน หลีกภัย จึงได้รับตำแหน่งรัฐมนตรีอีกครั้ง เป็นรัฐมนตรีช่วยว่าการกระทรวงคมนาคม[5] ต่อเนื่องมาจนกระทั่งรัฐบาลของพลเอกชวลิต ยงใจยุทธ และยังได้รับการปรับใปดำรงตำแหน่งรัฐมนตรีว่าการกระทรวงสาธารณสุขอีกครั้งในรัฐบาลชุดนี้

นายสมศักดิ์ เทพสุทิน ได้รับตำแหน่งรัฐมนตรีช่วยว่าการกระทรวงอุตสาหกรรม ในรัฐบาลชวน 2 ต่อมาจึงได้ย้ายมาสังกัดพรรคไทยรักไทย และลงสมัครสมาชิกสภาผู้แทนราษฎร ระบบบัญชีรายชื่อ ของพรรคไทยรักไทย ในการเลือกตั้งปี 2544 โดยให้ภรรยาลงสมัครในระบบเขตแทน และนายสมศักดิ์ ยังได้รับตำแหน่งรัฐมนตรีว่าการกระทรวงอุตสาหกรรม ในปี 2545 แล้วจึงปรับมารับตำแหน่งรัฐมนตรีว่าการกระทรวงเกษตรและสหกรณ์ ในปี พ.ศ. 2546 และเป็นรองนายกรัฐมนตรีในเวลาต่อมา จากนั้นในปี 2548 จึงได้รับตำแหน่งรัฐมนตรีอีกครั้งในรัฐบาลทักษิณ 2 เป็นรัฐมนตรีว่าการกระทรวงการท่องเที่ยวและกีฬา[6] และปรับเปลี่ยนมาเป็นรัฐมนตรีว่าการกระทรวงแรงงาน

นายสมศักดิ์ เป็นหัวหน้ากลุ่มการเมืองในพรรคไทยรักไทยที่ชื่อ "กลุ่มวังน้ำยม" อันเป็นกลุ่มใหญ่ที่สุดในพรรค ในการหาเสียงการเลือกตั้งในปี 2548 นายสมศักดิ์ มีนโยบายที่รู้จักกันเป็นอย่างดี คือ "โคล้านตัว" เป็นนโยบายที่จะทำการแจกโคให้แก่เกษตรกรฟรีทั่วประเทศ และเป็นที่มาของการจัดตั้งบริษัท ส่งเสริมธุรกิจเกษตรกรไทย จำกัด แต่โครงการดังกล่าวก็ไม่ประสบความสำเร็จ สามารถดำเนินการจัดหาโคได้เพียง 21,ุ684 ตัวเท่านั้น[7]

หลังรัฐประหาร พ.ศ. 2549

หลังการรัฐประหารในปี 2549 นายสมศักดิ์และกลุ่มวังน้ำยมได้ลาออกจากพรรคไทยรักไทย ไปจัดตั้งกลุ่มของตัวเองขึ้นมาใหม่ ใช้ชื่อว่า "กลุ่มมัชฌิมา" ต่อมาในปี 2550 ได้ถูกตัดสิทธิทางการเมืองเป็นเวลา 5 ปี เนื่องจากเป็นกรรมการบริหารพรรคไทยรักไทยซึ่งถูกยุบในคดียุบพรรคการเมือง พ.ศ. 2549[8] แต่ก็ยังดำเนินการทางการเมือง ด้วยการนำพาสมาชิกที่เหลือไปสังกัดกับทางพรรคประชาราช โดยที่นางอนงค์วรรณได้เป็นเลขาธิการพรรคในเวลาต่อมา แต่ก็อยู่กับทางพรรคประชาราชได้ไม่นาน เมื่อนายประชัย เลี่ยวไพรัตน์ มีความเห็นไม่ลงตัวกับนายเสนาะ เทียนทอง กลุ่มของนายประชัยและนายสมศักดิ์จึงได้ไปรวมตัวกันใหม่ ในชื่อ พรรคมัชฌิมาธิปไตย โดยที่นางอนงค์วรรณก็ได้เป็นเลขาธิการพรรคด้วย

ต่อมาในปี 2551 ศาลรัฐธรรมนูญ ได้มีคำพิพากษายุบพรรคมัชฌิมาธิปไตย และตัดสิทธิกรรมการบริหารพรรคเป็นเวลา 5 ปี ทำให้ ส.ส. ในกลุ่มของนายสมศักดิ์ จึงได้ย้ายมาร่วมกิจกรรมทางการเมืองกับกลุ่มเพื่อนเนวิน ในนามพรรคภูมิใจไทย และนายสมศักดิ์ ก็ยังนับได้ว่าเป็นผู้ที่มีอิทธิพลในฐานะแกนนำกลุ่ม ส.ส. ซึ่งสื่อมวลชนให้ชื่อกลุ่มแกนนำนี้ว่า "8ส.+ส.พิเศษ" อันประกอบด้วย สมศักดิ์ เทพสุทิน สมคิด จาตุศรีพิทักษ์ สมศักดิ์ ปริศนานันทกุล สุวิทย์ คุณกิตติ สุวัจน์ ลิปตพัลลภ สุรนันทน์ เวชชาชีวะ สนธยา คุณปลื้ม และสรอรรถ กลิ่นประทุมส่วน ส.พิเศษ คือ คุณหญิงสุดารัตน์ เกยุราพันธุ์[9]

ในการเลือกตั้งสมาชิกสภาผู้แทนราษฎรไทยเป็นการทั่วไป พ.ศ. 2557 เขาได้สมัครรับเลือกตั้งในระบบบัญชีรายชื่อ สังกัดพรรคเพื่อไทย ลำดับที่ 16[10]

หลังรัฐประหาร พ.ศ. 2557

ในปี 2561 นายสมศักดิ์ ได้ระบุจะไม่ทำการยืนยันสมาชิกกับพรรคเพื่อไทย ซึ่งเท่ากับสิ้นสุดการเป็นสมาชิกพรรค[11] และได้ประกาศเข้าร่วมงานกับ พรรคพลังประชารัฐ พร้อมกับเปลี่ยนชื่อกลุ่มการเมืองของตนจากกลุ่ม วังน้ำยม หรือ มัชฌิมา เป็น กลุ่มสามมิตร โดยจับมือกับนาย สุริยะ จึงรุ่งเรืองกิจ อดีตเลขาธิการ พรรคไทยรักไทย ผู้เป็นหัวหน้ากลุ่มสามมิตรทำการทาบทามบรรดาอดีต ส.ส. ส.ว. และนักการเมืองท้องถิ่นให้เข้าร่วมงานกับ พรรคพลังประชารัฐ